Tomi Um
Nous nous appuyons de plus en plus sur les chatbots d’intelligence artificielle comme outils pour comprendre le monde. Certains remplacent déjà les moteurs de recherche Internet et facilitent d’autres tâches comme l’écriture et la programmation. Garder un œil sur les comportements émergents des chatbots – y compris leurs attitudes politiques – devient de plus en plus important.
Les problèmes politiques de l’IA ont été clairement illustrés par le déploiement désastreux du chatbot Gemini Advanced de Google le mois dernier. Un système conçu pour garantir la diversité s'est moqué des demandes des utilisateurs, notamment en faisant porter des personnes de couleur en uniformes nazis lorsqu'on leur demandait des images historiques de soldats allemands et en décrivant des quarterbacks féminins comme ayant remporté le Super Bowl, obligeant Google à suspendre la création de photos d'humains. entièrement. Le modèle de texte des Gémeaux refuse souvent d’illustrer, de défendre ou de citer des faits pour un côté d’un problème, affirmant que le faire serait préjudiciable, tout en n’ayant aucune objection de ce type lorsque les politiques de la demande sont inversées.
Le fait que l'A.I. Les systèmes expriment des tendances politiques importantes parce que les gens adoptent souvent les opinions qu’ils rencontrent le plus régulièrement. Nos politiques et nos médias sont de plus en plus polarisés. Beaucoup craignent que les algorithmes de contenu de Facebook, YouTube et TikTok n’exacerbent la polarisation idéologique en alimentant davantage les utilisateurs de ce avec quoi ils sont déjà enclins à être d’accord et en donnant aux Big Tech la possibilité de mettre leur pouce sur la balance. L’IA partisane les chatbots ne font qu’intensifier cela.
Comment de telles préférences politiques se manifestent-elles dans A.I. des modèles?
Une prépublication d'un nouvel article du chercheur en apprentissage automatique David Rozado apporte un nouvel éclairage sur la question. Il a administré 11 tests d'orientation politique à 24 chercheurs en IA de pointe. modèles de langage et ont trouvé un modèle cohérent : ils ont tendance à être politiquement centrés à gauche et plutôt libertaires qu’autoritaires. Ces tendances se reflètent dans leurs jugements moraux, la manière dont ils formulent leurs réponses, les informations qu’ils choisissent de partager ou d’omettre et les questions auxquelles ils répondront ou non.
Les préférences politiques se résument souvent sur deux axes. L'axe horizontal représente la gauche par rapport à la droite, traitant de questions économiques telles que la fiscalité et les dépenses, le filet de sécurité sociale, les soins de santé et la protection de l'environnement. L’axe vertical est libertaire versus autoritaire. Il mesure les attitudes à l'égard des droits et libertés civils, de la moralité traditionnelle, de l'immigration et de l'application de la loi.
Vous pouvez essayer un court quiz pour voir comment vos opinions se comparent à celles de l'IA. réponses des modèles dans l’étude de M. Rozado.